((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
*
Le Pentagone et Anthropic au point mort sur les garde-fous du déploiement de l'IA
*
Anthropic s'inquiète de l'utilisation de l'IA pour la surveillance américaine et les armes autonomes
*
Le Pentagone insiste pour déployer des technologies d'IA sans tenir compte des politiques d'utilisation des entreprises
(Ajout de détails sur le travail entre le Pentagone et Anthropic au paragraphe 12, contexte) par Deepa Seetharaman, David Jeans et Jeffrey Dastin
Le Pentagone est en désaccord avec le développeur d'intelligence artificielle Anthropic au sujet des garanties qui empêcheraient le gouvernement de déployer sa technologie pour cibler des armes de manière autonome et effectuer la surveillance intérieure des États-Unis, ont déclaré à Reuters trois personnes au fait du dossier.
Les discussions constituent un premier test pour savoir si la Silicon Valley, dans les bonnes grâces de Washington après des années de tensions, peut influencer la manière dont l'armée américaine et le personnel des services de renseignement déploient une IA de plus en plus puissante sur le champ de bataille.
Après de longues discussions dans le cadre d'un contrat d'une valeur maximale de 200 millions de dollars , le ministère américain de la défense et Anthropic sont au point mort, ont déclaré six personnes au fait du dossier, sous le couvert de l'anonymat.
La position de l'entreprise sur la manière dont ses outils d'IA peuvent être utilisés a intensifié les désaccords entre elle et l'administration Trump, dont les détails n'ont pas été rapportés précédemment.
Un porte-parole du ministère de la Défense, que l'administration Trump a rebaptisé ministère de la Guerre, n'a pas immédiatement répondu aux demandes de commentaires.
Anthropic a déclaré que son IA est "largement utilisée pour des missions de sécurité nationale par le gouvernement américain et nous avons des discussions productives avec le Département de la guerre sur les moyens de poursuivre ce travail."
Cette prise de bec, qui pourrait menacer les activités d'Anthropic au Pentagone, intervient à un moment délicat pour l'entreprise.
La startup basée à San Francisco se prépare à une éventuelle introduction en bourse. Elle a également consacré d'importantes ressources à courtiser les entreprises américaines de sécurité nationale et a cherché à jouer un rôle actif dans l'élaboration de la politique gouvernementale en matière d'IA.
Anthropic est l'un des quelques grands développeurs d'IA qui ont obtenu des contrats du Pentagone l'année dernière. Les autres sont Google GOOGL.O d'Alphabet, xAI d'Elon Musk et OpenAI.
CIBLAGE DES ARMES
Lors de leurs discussions avec des représentants du gouvernement, les représentants d'Anthropic ont fait part de leurs inquiétudes quant au fait que ses outils pourraient être utilisés pour espionner des Américains ou aider au ciblage d'armes sans surveillance humaine suffisante, ont déclaré certaines des sources à Reuters.
Le Pentagone s'est insurgé contre les directives de l'entreprise. Conformément à un mémo du département du 9 janvier sur la stratégie en matière d'IA, les responsables du Pentagone ont fait valoir qu'ils devraient être en mesure de déployer des technologies d'IA commerciales indépendamment des politiques d'utilisation des entreprises, pour autant qu'elles respectent la législation américaine, ont déclaré les sources.
Néanmoins, les responsables du Pentagone auraient probablement besoin de la coopération d'Anthropic pour aller de l'avant. Ses modèles sont entraînés à éviter de prendre des mesures qui pourraient être préjudiciables, et les employés d'Anthropic seraient ceux qui réoutilleraient son IA pour le Pentagone, ont déclaré certaines des sources.
La prudence d'Anthropic a déjà suscité des conflits avec l'administration Trump, Semafor a rapporté .
Dans un essai publié sur son blog personnel, le directeur général d'Anthropic, Dario Amodei, a averti cette semaine que l'IA devrait soutenir la défense nationale "de toutes les manières, sauf celles qui nous rendraient plus semblables à nos adversaires autocratiques".
Amodei fait partie des cofondateurs d'Anthropic qui ont critiqué les tirs mortels sur des citoyens américains qui protestaient contre les mesures de contrôle de l'immigration à Minneapolis, qu'il a qualifiés d'"horreur" dans un billet publié sur X.
Ces décès ont renforcé les inquiétudes de certains membres de la Silicon Valley quant à l'utilisation de leurs outils par le gouvernement pour des actes de violence potentiels.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer